Les algorithmes et l'IA peuvent être utilisés dans des démarches concernant des attributions de prestations sociales, de calculs d'impôts, ou encore d'accès à l'enseignement supérieur.
( AFP / STR )
Il faut maintenir un contrôle humain dans les décision des services publics prises avec l'appui de systèmes algorithmiques ou d'intelligence artificielle (IA), réclame mercredi 13 novembre le Défenseur des droits (DDD), dont un rapport appelle à renforcer la "transparence" sur ce sujet. Et il ne suffit pas qu'un fonctionnaire appuie sur un bouton "valider".
"C'est une question de confiance des usagers envers leur administration" , a justifié auprès de l' AFP cette autorité indépendante, qui reçoit encore peu de réclamations d'usagers. Mais les premiers dossiers dessinent une problématique "systémique". À l'heure de "l'algorithmisation de l'administration", la part de l'intervention humaine dans les décisions qui ne sont que "partiellement automatisées" inquiète le DDD.
"Le fait qu'un agent applique de façon systématique, par exemple en appuyant sur un bouton 'valider', les résultats générés par l'algorithme ou le système d'IA, sans opération intellectuelle de vérification, ne saurait être considéré comme une intervention humaine" , peut-on lire dans le rapport.
Il peut s'agir de démarches concernant des attributions de prestations sociales, de calculs d'impôts, ou encore d'accès à l'enseignement supérieur.
Porteur de progrès et porteur de risque
"On prend acte du droit tel qu'il existe et qui dit bien que dans toute une série de cas, il peut ne pas y avoir d'intervention humaine . Mais lorsqu'il doit y avoir une intervention humaine, on recommande de préciser ce que cette intervention doit apporter. Qui intervient ? À quel moment du processus ? Pour les décisions partiellement automatisées, il faut une intervention humaine plus substantielle", explique-t-on au DDD.
"Il n'y a pas de doute sur le fait qu'ils (IA et algorithmes) sont porteurs de progrès, il n'y a pas de doute non plus qu'ils soient porteurs de risques pour les droits fondamentaux", ajoute le Défenseur des droits.
L'autorité administrative appelle également à davantage de transparence, en demandant par exemple au gouvernement de consacrer un "droit à l'explication" pour ces décisions .
Le ministre de la Fonction publique, Guillaume Kasbarian, a estimé samedi à Saint-Raphaël que l'IA était "la pierre angulaire de la transformation de la fonction publique", estimant que son développement "permettra des gains colossaux en efficacité".
Le Défenseur des droits, lui, veut "alerter les pouvoirs publics sur la place du droit des usagers dans ces politiques de déploiement tous azimuts des algorithmes et de l'IA à peu près dans tous les services publics".
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer